草庐IT

LLM 评估

全部标签

[LLM+AIGC] 01.应用篇之中文ChatGPT初探及利用ChatGPT润色论文对比浅析(文心一言 | 讯飞星火)

近年来,人工智能技术火热发展,尤其是OpenAI在2022年11月30日发布ChatGPT聊天机器人程序,其使用了Transformer神经网络架构(GPT-3.5),能够基于在预训练阶段所见的模式、统计规律和知识来生成回答,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流以及完成复杂的NLP任务。基于此,为更好地学习前沿AI知识,了解LLM和AIGC应用实战,本人在忙完博士学业后,立刻开启了《LLM+AIGC》专栏,一方面作为在线笔记记录和分享自己的学习过程,另一方面期望帮助更多初学者以及对LLM感兴趣的同学。您的关注、点赞和转发就是对秀璋最大的支持,知识无价人有情,希望我们都能在人生

【人工智能】LLM 大模型技术调研

目录LLM大模型技术调研一LLM技术概览二关键技术点2.1InstructionTuning2.1.1InstructiontuningDefinition[6]

【人工智能】大模型LLM技术生态全景图 | The Foundation Large Language Model (LLM) & Tooling Landscape

目录“Softwareiseatingtheworld…”  “软件正在吞噬世界...”~MarcAndreessen ~马克·安德森Everycompanyisasoftwarecompany…sooneverycompanywillbeanAIcompany.每家公司都是软件公司...很快,每家公司都将成为人工智能公司。Everybodyisusingsoftware…sooneverybodywilldirectlybeusingAI.每个人都在使用软件...很快,每个人都将直接使用AI。1️⃣FoundationalLargeLangaugeModels&DataCentricTool

LLM吞吐量提高2-4倍,模型越大效果越好!UC伯克利、斯坦福等开源高效内存管理机制PagedAttention

虽然大型语言模型(LLM)的性能表现足够惊艳,但每次接收用户请求时都需要耗费大量显存和计算资源,一旦请求数量超出预期,就极有可能面临ChatGPT刚发布时的宕机、排队、高延迟等窘境。想要打造一个高吞吐量的LLM服务,就需要模型在一个批次内处理尽可能多的请求,不过现有的系统大多在每次处理请求时申请大量的key-value(KV)缓存,如果管理效率不高,大量内存都会在碎片和冗余复制中被浪费掉,限制了batchsize的增长。最近,来自加州大学伯克利分校、斯坦福大学、加州大学圣迭戈分校的研究人员基于操作系统中经典的虚拟内存和分页技术,提出了一个新的注意力算法PagedAttention,并打造了一个

ORB-SLAM2算法3之EuRoc开源数据集运行ORB-SLAM2生成轨迹并用evo工具评估轨迹

文章目录0引言1EuRoc数据集1.1下载数据1.2真值轨迹格式转换2单目ORB-SLAM22.1运行ORB-SLAM22.2evo评估轨迹2.2.1载入和对比轨迹2.2.2计算绝对轨迹误差3双目ORB-SLAM23.1运行ORB-SLAM23.2evo评估轨迹3.2.1载入和对比轨迹3.2.2计算绝对轨迹误差ORB-SLAM2算法系列:0引言ORB-SLAM2算法1已成功编译安装ORB-SLAM2到本地,本篇目的是用EuRoc开源数据来运行ORB-SLAM2,并生成轨迹,最后用evo评估工具来评估ORB-SLAM2生成的轨迹和真值轨迹。1EuRoc数据集1.1下载数据👉首先点击EuRoc开源

以火攻火:用LLM对付LLM生成的社会工程攻击

人工智能领域的最新进展导致了大语言模型(LLM)问世,包括GPT-3、PaLM、GPT-4和LLAMA。这些模型可以生成易于理解的文本段落、回答详细的问题、解决复杂的问题、编写代码以及处理其他各种自然语言任务。LLM彻底改变了自然语言处理(NLP)任务,改变了用户与语言进行交互的方式,最终通过改进后的聊天机器人、虚拟助手、内容生成、搜索引擎和语言学习平台,影响了人们的日常生活。虽然不可否认LLM进步巨大,有助于日常使用,但在网络安全领域,它已成为一把双刃剑,无意中为网络犯罪分子开创了黄金时代。LLM允许攻击者更高效更频繁地进行一系列攻击(包括鱼叉式网络钓鱼和商业电子邮件入侵等社会工程伎俩),因

GenomeScope 2.0 评估基因组大小、杂合度和重复序列

GenomeScope是2017年发表在bioinformatic的一个工具,这个工具的目的就是处理一些高复杂度的基因组,比如说高杂合度或者基因组非常大的物种。GenomeScope只能预测二倍体基因组,GenomeScope2.0可以预测多倍体物种。安装$gitclonehttps://github.com/tbenavi1/genomescope2.0.git$cdgenomescope2.0/$Rscriptinstall.R在软件的安装目录下,genomescopre.R文件是核心的运行脚本,用法如下$Rscriptgenomescope.R\-ihistogram_file\-oou

SLAM 轨迹评估工具——EVO安装、使用介绍

一、概述evo是一款用于视觉里程计和SLAM问题的轨迹评估工具.核心功能是能够绘制相机的轨迹,或评估轨迹与真值之间的误差.支持多种数据集的轨迹格式(TUM、KITTI、EuRoCMAV、ROS的bag),同时支持这些数据格式之间的相互转换,本文轨迹展示以tum数据格式为例。二、安装evo安装方式比较简单,有两种方式:1.便捷安装.pip3installevo--upgrade--no-binaryevo2.源码安装gitclonehttps://github.com/MichaelGrupp/evo.gitpip3install--editable.--upgrade--no-binaryev

一文入门最热的LLM应用开发框架LangChain

在人工智能领域的不断发展中,语言模型扮演着重要的角色。特别是大型语言模型(LLM),如ChatGPT,已经成为科技领域的热门话题,并受到广泛认可。在这个背景下,LangChain作为一个以LLM模型为核心的开发框架出现,为自然语言处理开启了一个充满可能性的世界。借助LangChain,我们可以创建各种应用程序,包括聊天机器人和智能问答工具。1. LangChain简介1.1.LangChain发展史LangChain的作者是HarrisonChase,最初是于2022年10月开源的一个项目,在GitHub上获得大量关注之后迅速转变为一家初创公司。2017年HarrisonChase还在哈佛上大